CALMem : Application-Layer Dual Memory for Conversational AI
CALMem:对话 AI 的应用层双内存架构
🧭 应用层记忆架构 · 情景与语义双检索 ★ 深度解读
Infosys Limited
纯应用层双内存(情景+语义)实现无模型改动的近乎无限上下文,并通过 token 自适应注入恢复会话连续性。
📌 工作参考价值(4 点)
- 在客服 agent 或购物助手中,可借鉴语义记忆显式存储用户偏好、情景记忆基于向量检索历史交互,二者互补恢复上下文。
- 采用 token 预算自适应注入,按上下文填充率动态控制注入量,避免记忆注入反而加速窗口溢出,适合长会话电商场景。
- 嵌入搜索使用内存缓存(Vec)减少 I/O,毫秒级延迟可忽略,适合需要低延迟的实时对话推荐系统。
- 纯应用层实现,不改模型、零回归开关,方便在现有 LLM 产品中渐进式迭代和灰度实验。